Micaen Ngô Đình Khả quê ở làng Đại Phong (tên nôm là Kẻ Đợi), nay thuộc xã Phong Thủy, huyện Lệ Thủy, tỉnh Quảng Bình. Gia đình ông theo đạo Công giáo, thuộc xứ Phủ Cam tại Huế; cha là Giacôbê Ngô Đình Niêm, giữ một chức quan coi kho thuộc Sở Võ Khố và mẹ là Ursala Khoa xứ Phường Đúc. Một số nguồn viết rằng dòng họ Ngô Đình gốc ở huyện Phúc Thọ, tỉnh Sơn Tây, nguồn khác thì cho là huyện Xuân Trường, tỉnh Nam Định, sau lưu lạc tới Quảng Bình.

Đình Khả lúc bé được cha đẻ là Giacôbê Ngô Đình Niêm cho đi giúp lễ với một vị linh mục Pháp ở họ đạo Mỹ Duyệt Hạ. Đến năm 1870, Ngô Đình Khả được linh mục Caspar cho đi học tại Đại chủng viện của dòng Thừa sai Paris tại đảo Paulo Pinang, Malaysia cùng với Nguyễn Hữu Bài.

Sau một thời gian học đạo, Ngô Đình Khả trở về nước và được phân dạy môn triết tại Đại chủng viện giáo phận Huế trong thời gian thử thách để được chọn lên chức linh mục. Tuy nhiên, sau một thời gian dài, Ngô Đình Khả vẫn không được bề trên ngó ngàng tới. Nên đến năm 1878, Ngô Đình Khả rời tu viện làm giáo dân bình thường và lấy vợ.